Thị xã Sơn La được thành lập ngày 26 tháng 10 năm 1961 theo Quyết định số 171-CP của Hội đồng Chính phủ trên cơ sở thị trấn Chiềng Lề, xã Chiềng Cơi, bản Hò Hẹo và bản Lầu của xã Chiềng An thuộc châu Mường La, khi đó trực thuộc khu tự trị Thái - Mèo.[3]

Ngày 27 tháng 10 năm 1962, Nghị quyết của Quốc hội khóa II tái lập tỉnh Sơn La trực thuộc Khu tự trị Tây Bắc, thị xã Sơn La trở thành tỉnh lỵ tỉnh Sơn La.[4]

Sau năm 1975, thị xã Sơn La có 2 phường: Chiềng Lề, Quyết Thắng và xã Chiềng Cơi.

Ngày 13 tháng 3 năm 1979, Quyết định 105-CP của Hội đồng Chính phủ chuyển 7 xã: Chiềng An, Chiềng Xôm, Chiềng Đen, Chiềng Cọ, Chiềng Sinh, Chiềng Ngần và Hua La của huyện Mường La về thị xã Sơn La quản lý.[5]

Ngày 16 tháng 5 năm 1998, Nghị định 31/1998/NĐ-CP của Chính phủ:

• Thành lập phường Tô Hiệu trên cơ sở 179 ha diện tích tự nhiên và 7.060 nhân khẩu của phường Chiềng Lề
• Thành lập phường Quyết Tâm trên cơ sở 215 ha diện tích tự nhiên và 5.063 nhân khẩu của phường Quyết Thắng.[6]

Ngày 6 tháng 10 năm 2005, Bộ Xây dựng ban hành quyết định công nhận thị xã Sơn La là đô thị loại III.

Ngày 23 tháng 3 năm 2006, Nghị định 29/2006/NĐ-CP của Chính phủ thành lập các phường Chiềng Sinh và Chiềng An trên cơ sở các xã có tên tương ứng.[7]

Ngày 3 tháng 9 năm 2008, Chính phủ ban hành Nghị định 98/2008/NĐ-CP thành lập thành phố Sơn La trên cơ sở toàn bộ diện tích tự nhiên, dân số và các đơn vị hành chính trực thuộc của thị xã Sơn La.[8]

Ngày 7 tháng 1 năm 2010, Chính phủ ban hành Nghị quyết 01/NQ-CP thành lập phường Chiềng Cơi trên cơ sở toàn bộ diện tích tự nhiên và dân số của xã Chiềng Cơi.[9]

Ngày 26 tháng 4 năm 2019, Thủ tướng Chính phủ ban hành Quyết định 466/QĐ-TTg công nhận thành phố Sơn La là đô thị loại II trực thuộc tỉnh Sơn La.[10]